VRAM Switcher:在 DeepSeek Harness 上协调 12 GB 卡上的 LLM、IndexTTS 与 ComfyUI

VRAM Switcher(xiaoxiao150/vram-switcher)是面向 AstrBot/DeepSeek Harness 本地 AI 陪伴的 GPU 协调插件:在约 12 GB 显存上通过 profile 驱动对 LLM、IndexTTS 与 ComfyUI 做停/起与就绪等待,配合 tts_busy/ready flag 与 ComfyUI 队列,避免 Windows 换页导致推理与生图极慢。DSH 侧为原生 Cordis 包 dsh-vram-switcher,提供 vram_status、vram_acquire、vram_release,并与 AstrBot 共用 Python 核心与 coordinator.lock。安装前用 configure.py 生成 profile.local.json,DSH 可用官方命令 dsh plugin --profile web add github:xiaoxiao150/vram-switcher,并在 cordis.patch 中配置 profilePath 与 dataDir。

阅读全文